package com.hadooop.ideRun;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import java.io.IOException;

/*
驱动类，在这个类中需要完成:
1、Job的创建
2、Job的属性配置
3、Job的提交
 */
public class WordCountDriver {
    public static void main(String[] args) throws IOException, InterruptedException, ClassNotFoundException {
        // 1、Job的创建
        Configuration conf = new Configuration();

        // 在IDEA中运行MapReduce的程序，可以选择计算资源，也可以去选择文件系统
        // 计算资源: mapreduce.framework.name，
        //          local: 使用本机的计算资源(CPU、内存)
        //          yarn: 使用集群的计算资源
        //
        // 文件系统: fs.defaultFS，
        //          hdfs://qianfeng01:9820      使用的hdfs
        //          file:///                    使用的本地的文件系统
        // 日志输出：不管用hdfs还是本地文件系统都要把hadoop安装目录/etc/hadoop/log4j.properties拷贝到resources中

        conf.set("mapreduce.framework.name", "local");
        // configuration.set("yarn.resourcemanager.hostname", "qianfeng01");
        conf.set("fs.defaultFS", "hdfs://hadoop0:9000/");
        // 使用hdfs需要设置用户为root
        System.setProperty("HADOOP_USER_NAME", "root");

        // configuration.set("yarn.app.mapreduce.am.env", "HADOOP_MAPRED_HOME=/usr/local/hadoop-3.3.1");
        // configuration.set("mapreduce.map.env", "HADOOP_MAPRED_HOME=/usr/local/hadoop-3.3.1");
        // configuration.set("mapreduce.reduce.env", "HADOOP_MAPRED_HOME=/usr/local/hadoop-3.3.1");
        // configuration.set("mapreduce.app-submission.cross-platform", "true");

        Job job = Job.getInstance();

        // 2、Job属性配置
        job.setMapperClass(WordCountMapper.class);
        job.setReducerClass(WordCountReducer.class);
        job.setJarByClass(WordCountDriver.class);

        // 如果K2V2的类型，与K3V3的类型相同，则这里可以省略不写
        // 设置Map阶段输出的键的类型
        // job.setMapOutputKeyClass(Text.class);
        // 设置Map阶段输出的值的类型
        // job.setMapOutputValueClass(IntWritable.class);

        // 设置Reduce阶段的输出的键的类型
        job.setOutputKeyClass(Text.class);
        // 设置Reduce阶段的输出的值的类型
        job.setOutputValueClass(IntWritable.class);

        /*
        当你运行一个Java程序时，你可以通过命令行传递参数给这个程序的main方法。
        这些参数被存储在String[] args数组中，这里把参数作为输入和输出的路径。
        */
        // 设置输入的路径
        // FileInputFormat.setInputPaths(job, new Path("hadoop-02-mapreduce/file/wordcount/input"));
        FileInputFormat.setInputPaths(job, new Path("hdfs://hadoop0:9000/wordcount/input1"));
        // 设置输出的路径
        // FileOutputFormat.setOutputPath(job, new Path("hadoop-02-mapreduce/file/wordcount/output2"));
        FileOutputFormat.setOutputPath(job, new Path("hdfs://hadoop0:9000/wordcount/output3"));

        // 应用分区器
        job.setPartitionerClass(WordCountPartitioner.class);

        // 设置ReduceTask的数量，决定最终生成的文件数量。这个数值最好需要和分区的数量保持一致！
        job.setNumReduceTasks(3);

        // 3、提交任务
        System.exit(job.waitForCompletion(true) ? 0 : 1);

    }
}
